Zuckerberg sinh ngày 14 tháng 5 năm 1984, trong một gia đình trí thức ở thành phố White Plains, hạt Westchester, bang New York, Hoa Kỳ.[12][13] Mẹ anh là bà Karen (nhũ danh Kempner), một bác sĩ tâm thần, và cha ông là ông Edward Zuckerberg, một nha sĩ.[14] Tổ tiên của anh có nguồn gốc từ Đức, Áo và Ba Lan.[15] Anh và ba chị em của mình, Randi, Donna, và Arielle, đã lớn lên tại Dobbs Ferry, New York, trong một ngôi làng nhỏ thuộc Quận Westchester với vị trí cách khoảng 21 dặm về phía bắc của Midtown Manhattan.[16] Zuckerberg đã lớn lên trong tư cách một người đạo Do Thái và trở thành một Bar Mitzvah khi anh 13 tuổi.[17]

Tại trường trung học Ardsley, Zuckerberg tỏ ra mình là một cậu bé có thành tích xuất sắc trong các lớp mà cậu tham gia. Vì thế, cậu được chuyển sang học tại Học viện Phillips Exeter, trường tư thục duy nhất ở New Hampshire trong năm học cơ sở, nơi anh đã giành giải thưởng về khoa học (toán học, thiên văn học và vật lý) và các nghiên cứu cổ điển. Khi còn trẻ, anh cũng đã tham dự Trung tâm Johns Hopkins dành cho trại trẻ vị thành niên tài năng. Trong đơn xin học đại học của mình, Zuckerberg đã nói rằng anh có thể đọc và viết tiếng Pháp, tiếng Hebrew, Latin và Hy Lạp cổ đại. Ngoài ra, anh còn là đội trưởng của đội đấu kiếm.[18][19][20]